10. 部署特征

- 模型版本控制:部署的一个特征是管理“部署模型”的版本。
除了将模型版本保存为数据库中模型元数据的一部分之外,部署平台还应允许指定部署模型的版本。这样可以更轻松地维护,监视和更新已部署的模型。
- 模型监控:部署的另一个特征是能够轻松监控已部署的模型。
部署模型后,您需要继续监控模型表现的性能指标。如果模型表现不好,那么应用程序可能需要使用性能更佳的模型来进行更新。
- 模型更新和管理:能够快速更新已部署模型,是部署的另一个特征。
如果部署的模型未能满足其性能指标,则可能需要更新此模型。
如果输入预测模型的数据发生了根本性的变化;你需要收集这些输入数据来用于更新模型。
部署平台应支持将用户的请求以不同比例来更新到已部署的模型,部署平台也应该要允许比较部署的模型变量之间的性能差异。
- 部署的还有一个特征是部署模型提供的预测类型,主要有两种常见的预测类型:
- On demand 预测,即实时、同步、在线预测
On demand 预测通常用于为客户,用户或员工提供基于部署模型的实时在线响应。
- 批量预测,即异步预测
批量预测通常用于帮助制定业务决策。例如,假设企业使用复杂模型来预测其多个产品的客户满意度,并且他们需要每周报告的这些估算值。这将需要部署平台每周通过批量预测的请求来处理客户数据。